Enoki: Efficient Multi-Level Hallucination Detection
Enoki:高效的多层次幻觉检测
🧭 幻觉检测 · 多粒度事实校验
提出 Enoki 开放信息抽取框架,借助文本锚定事实验证与投影,同时完成 claim 级验证和 span 级定位,资源更少定位更优
📌 工作参考价值(4 点)
- 借鉴 Enoki 的共享表示:用一次 Open IE 抽取得到文本锚定三元组,同时输出 claim 级事实校验和 span 级风险片段定位,避免分别部署两套系统,适合电商商品描述、营销文案等生成内容的实时事实性校验。
- 工程上采用多后端设计,LLM-based、encoder-based、rule-based 抽取器统一接口,便于按场景在准确率与推理成本之间切换:高价值场景用 LLM 抽取保障精度,低延迟批量场景用 encoder 或规则。
- 将未支持三元组投影回原 span,可直接用于前端高亮或解释,提升 Agent 输出可解释性与用户信任,例如客服回答中高亮存疑片段。
- EnokiQA 数据集提供 claim 与 span 对齐标注,可用于微调内部小模型或评测幻觉检测模块,降低自建标注成本。